Tháng 1 năm 1924, Tôn Dật Tiên đã chính thức tuyên bố liên minh giữa Quốc Dân Đảng và những người Cộng sản, và một kế hoạch viễn chinh quân sự nhằm thống nhất Trung Quốc và tiêu diệt các lãnh chúa. Viện Hàn lâm Quân sự Whampoa được thành lập vào tháng 3 nhằm đào tạo các vị sĩ quan cho quân đội để đối đầu với các lãnh chúa. Tàu chiến Nga cung cấp vũ khí tại các cảng ở Quảng Châu. Các cố vấn của Quốc tế Cộng sản III từ Mátxcơva cũng có mặt. Tháng 10, một thời gian ngắn sau khi quay trở về từ châu Âu, Chu Ân Lai được chỉ định làm phó giám đốc ban chính trị Trường quân sự Hoàng Phố tại Quảng Châu.

Chu Ân Lai nhanh chóng nhận ra Quốc Dân Đảng đang lo mưu đồ cho riêng mình. Phe hữu mạnh trong Quốc Dân Đảng phản đối kịch liệt liên minh với Cộng sản. Chu Ân Lai tin rằng Đảng Cộng sản Trung Quốc, để tồn tại phải có một đội quân của riêng mình. "Quốc Dân Đảng là một liên minh của những lãnh chúa hay phản bội" ông đã nói với người bạn là Nhiếp Vinh Trăn, mới tới từ Moskva và được chỉ định làm phó giám đốc Học viện. Cùng nhau họ đã tổ chức một nhóm các sĩ quan nòng cốt là các thành viên Đảng Cộng sản và theo các nguyên tắc của Marx. Trong một thời gian họ không gặp cản trở nào, thậm chí từ phía cả Tưởng Giới Thạch, giám đốc Trường Hoàng Phố.

Tôn Dật Tiên mất ngày 12 tháng 3 năm 1925. Ngay khi ông mất, rắc rối nảy sinh tại Quảng Châu. Một lãnh chúa tên là Trần Quýnh Minh Tổng trưởng nội chính kiêm Tổng trưởng lục quân, tổng tư lệnh và tỉnh trưởng Việt quân tìm cách chiếm giữ thành phố và tỉnh này. Cuộc Đông Chinh, do Chu Ân Lai lãnh đạo, được tổ chức như một chiến dịch quân sự chống lại Trần. Với những sĩ quan nòng cốt của Đảng Cộng sản họ đã thắng lợi lớn. Chu Ân Lai được thăng chức lãnh đạo phòng thiết quân luật của Trường Hoàng Phố. Ông nhanh chóng dẹp tan một âm mưu lật đổ của một vị lãnh chúa khác trong thành phố. Trần Quýnh Minh một lần nữa tổ chức hành quân vào tháng 10 năm 1925. Một lần nữa Chu Ân Lai lại đánh bại ông tà và lần này chiếm được thành phố Sán Đầu quan trọng trên bờ biển phía nam Trung Quốc. Chu Ân Lai được chỉ định làm uỷ viên đặc biệt của Sán Đầu và vùng xung quanh. Ông bắt đầu xây dựng một nhánh đảng tại Sán Đầu và giữ bí mật tên tuổi những người tham gia.

Ngày 8 tháng 8 năm 1925, ông và Đặng Dĩnh Siêu tổ chức lễ cưới sau một thời gian yêu nhau dài tới năm năm. Họ chưa có con nhưng nhận đỡ đầu nhiều trẻ em mồ côi thuộc đội "cảm tử cách mạng"; một người trong số đó sau này trở thành thủ tướng Lý Bằng.

Sau cái chết của Tôn Dật Tiên, Quốc Dân Đảng nằm dưới sự quản lý của một chế độ tam đầu chế gồm Tưởng Giới Thạch, Liêu Trọng Khải và Uông Tinh Vệ, nhưng vào tháng 8 năm 1925 thành viên cánh tả, Liêu Trọng Khải, bị ám sát. Tưởng Giới Thạch lợi dụng vụ này để tuyên bố thiết quân luật và củng cố quyền kiểm soát của phe cánh hữu. Ngày 18 tháng 3 năm 1926, trong khi Mikhail Borodin, vị cố vấn Quốc tế Cộng sản III người Nga của Mặt trận Thống nhất, đang ở Thượng Hải, Tưởng Giới Thạch đạo diễn một vụ việc mới để cướp quyền của những người Cộng sản. Vị chỉ huy và các thuỷ thủ một thuyền chiến của Quốc Dân Đảng bị bắt tại cảng Hoàng Phố, Xem Vụ việc tàu chiến Trung Sơn. Tiếp sau là những cuộc bố ráp vào Trụ sở Quân đoàn số 1 và Trường Quân sự Hoàng Phố. Tổng cộng 65 đảng viên Cộng sản bị bắt giữ, gồm cả Nhiếp Vinh Trăn. Tình trạng khẩn cấp quốc gia được ban hành và lệnh giới nghiêm được áp dụng. Chu Ân Lai vừa mới quay trở về từ Shantou và cũng bị giữ 48 giờ. Khi được thả ông đối đầu với Tưởng Giới Thạch và buộc tội ông ta phá hoại Mặt trận Thống nhất nhưng Tưởng cho rằng ông ta chỉ tiêu diệt một âm mưu của những người Cộng sản. Khi Borodin từ Thượng Hải quay về ông tin vào lời lẽ của Tưởng Giới Thạch và khiển trách Chu Ân Lai. Theo yêu cầu của Tưởng, Borodin đưa ra một danh sách các thành viên Đảng Cộng sản Trung Quốc cũng là các thành viên Quốc Dân Đảng. Những thành viên duy nhất thoát khỏi danh sách này là những người mới được Chu Ân Lai tuyển mộ. Tưởng Giới Thạch cách chức tất cả các sĩ quan Đảng Cộng sản khỏi Quân đoàn thứ nhất. Uông Tinh Vệ, bị coi là có cảm tình với những người cộng sản, được thuyết phục ra đi theo một "chuyến nghiên cứu" tại châu Âu. Chu Ân Lai bị tước mọi trách nhiệm liên quan tới Mặt trận Thống nhất, trao lại quyền điều hành tuyệt đối cho Tưởng Giới Thạch.